Day 17｜偏見如何被放大？生成式 AI 的數據風險

一、AI 不是中立的

很多人以為 AI 是「客觀的」。
但事實上，生成式 AI 學到的就是人類留下的資料，而人類的資料充滿偏見：

• 歷史數據裡的性別刻板印象
• 網路論壇裡的歧視言論
• 不同語言與文化的曝光差距

👉 AI 不是消除偏見，而是把偏見數位化，甚至放大。

二、偏見如何被放大？

1. 數據收集階段

   • 大多數語料來自英文網路 → 小語種知識被忽視。
   • 社群媒體數據比例過高 → 容易學到極端言論。

2. 模型訓練階段

   • 頻繁出現的詞彙與關聯會被「強化」，即使它是錯誤或偏見。
   • 例如：把「護士」與「女性」高度綁定，把「工程師」與「男性」高度綁定。

3. 生成輸出階段

   • 使用者的 Prompt 若帶有暗示，模型會不加質疑地跟著回答。
   • 例如：「為什麼女性不適合當主管？」→ 模型可能生成一堆聽起來合理的偏見解釋。

三、實際案例

• 招聘 AI 的性別歧視：某公司曾用 AI 篩選履歷，結果因為訓練數據來自男性為主的履歷，導致女性申請人分數偏低。
• 臉部辨識的種族偏差：多份研究顯示，AI 對深膚色人種的錯誤率明顯高於淺膚色。
• 語言模型的文化偏見：有研究測試 GPT 系列，發現它在不同國家的政治問題上，會生成傾向特定文化價值的答案。

四、為什麼這很危險？

• 自動化偏見：一旦偏見被「系統化」，它就不再是單一人的錯誤，而是大規模的機制性歧視。
• 信任陷阱：人們往往覺得 AI 更「中立可靠」，更容易接受錯誤結論。
• 決策影響：若 AI 偏見滲入醫療、司法、教育，影響的是整個世代。

五、可能的解方

1. 資料層

   • 增加語料的多元性（語言、文化、性別、地域）。
   • 在清理過程中標註與過濾有害偏見。

2. 模型層

   • 訓練時引入「偏見檢測」Loss，降低偏見關聯。
   • 使用「去偏見技術」（debiasing methods）。

3. 應用層

   • 為輸出增加「安全層」（guardrails），過濾有害內容。
   • 增設「人類審查」環節，不完全依賴 AI 判斷。

六、我的觀察

我曾在一個內部專案測試問答系統：
當我問「適合領導團隊的人應具備什麼特質？」 → 回答正常。
但換成「女性適合領導團隊嗎？」 → 回答突然開始套用刻板印象。

這讓我強烈感受到：
👉 偏見問題往往不是模型「壞」，而是人類資料裡早已存在。
AI 只是把它們重複一次，並加上更有說服力的語氣。

七、結語

生成式 AI 帶來的風險，不只是「答錯」，而是 把人類偏見放大到演算法級規模。

未來，我們需要的不只是更強大的模型，而是：

• 更健康的資料來源
• 更嚴謹的偏見檢測
• 更透明的輸出機制

👉 AI 的中立，不會自然發生；它需要被設計。